郑曦 | 司法人工智能运用背景下的被追诉人权利保障问题
点击蓝字关注我们
司法人工智能运用背景下的
被追诉人权利保障问题
推荐语
文章敏锐地洞察到司法人工智能的运用现实对刑事诉讼被追诉人权利产生的影响，并提出从限权和增权两个角度协调人工智能技术运用与公民权利保障之间的关系，既立足刑事诉讼人权保障的基本价值追求，又直面智慧司法建设的时代议题，为引导刑事诉讼领域内的技术向善、促进司法人工智能的法治化运用提供了有益参考。
作者简介
郑曦，北京外国语大学法学院教授、博士生导师，北京外国语大学“卓越学术带头人”，CTTI智库北京外国语大学立法比较研究中心首席专家。在《中国法学》《中外法学》《法律科学》《政法论坛》《当代法学》等CSSCI期刊发表学术论文40余篇，相关成果多次被《新华文摘》《中国社会科学文摘》《高等学校文科学术文摘》《人大报刊复印资料》等转载；出版Handbook on Chinese Criminal Procedure Law、《警察暂时性人身限制权研究》、《侦查讯问程序研究》等中英文专著；主持国家社会科学基金项目、中国法学会部级重点课题、教育部人文社会科学基金项目、北京市社会科学基金项目、中国博士后科学基金面上资助项目等省部级以上课题8项；曾获得中国法学会第十一届、第十二届中国法学青年论坛征文二等奖，第五届、第九届董必武青年法学成果奖等奖项。
摘要：刑事诉讼中司法人工智能技术的运用，给被追诉人的权利保障带来了影响，主要体现在导致对被追诉人的刑事追诉活动时间提前、追诉强度增加、控辩力量失衡和被追诉人参与失效等几个方面。按照权利与权力平衡的基本思路，我们可以从限权和增权两个角度协调司法人工智能运用与被追诉人权利保障的关系。从限权的视角出发，应以比例原则限制对司法人工智能的运用，强化刑事诉讼的等边三角形结构，并对作为人工智能基本要素的数据和算法进行适度公开。从增权的角度出发，应赋予并保障被追诉人知情的权利、反对的权利和获得专业帮助的权利，从而使其有足够能力应对刑事诉讼中司法人工智能的运用。
关键词：刑事司法；人工智能；被追诉人；权利保障
一、问题的提出
人工智能技术的兴起引领或裹挟着人类进入“一个新的文明”，尽管尚处于“弱人工智能”阶段，但因其具有区别于以往科技的模仿、自主学习等智能化特征，且理论上具有接近甚至超越人类智能的可能，人工智能技术的运用改变了人类的生活方式，但也带来了忧虑。
作为人类社会生活的一部分，司法领域同样无法避开人工智能运用的时代浪潮。在案件数量激增、司法工作负荷沉重的现实下，司法人工智能的运用承载着公检法机关提升案件办理效率的迫切需求。面对此种难题，高层将司法人工智能的运用视为提高司法效率的一项手段。然而，与人工智能技术整体的“低智能”现实相一致，目前司法人工智能也存在一些显著的技术缺陷，如作为司法人工智能基本原料的法律数据不充足、不真实、不客观、结构化不足等。更为重要的是，司法人工智能运用的目标定位存在偏差。司法人工智能的运用以提高案件办理效率为根本驱动力，其目标定位即在于便利公检法机关的办案工作，然而此种定位忽视了诉讼中的另一方即作为诉讼参与人的公民的相关权利保障。事实上，无论是基于功利主义哲学实现“人的最大幸福”的科技伦理还是社会主义国家“司法服务人民群众”的政治要求，都需将司法人工智能运用的目标定位于保障公民权利，否则很可能导致其与保障人民权利的法治根本目的之间出现偏差。
相较于参与司法活动的其他公民，犯罪嫌疑人、被告人等被追诉人在刑事诉讼中处于天然的劣势，本身其权利极易受到伤害，故而刑事诉讼法治的永恒主题之一即保障被追诉人的权利。从某种意义上看，刑事诉讼法治化的历史，就是提升被追诉人的地位、增强其权利保障力度的历史，因为如何对待被追诉人，“是衡量一个国家的身份、精神的标尺之一”。在司法人工智能运用的现实下，被追诉人的权利保障是否可能因司法人工智能的运用而受到影响？如有此种可能，对被追诉人权利的影响具体体现在哪些方面、其成因如何？如何调适司法人工智能运用与被追诉人权利保障这两者之间的关系？可否通过限制公权力的行使实现司法人工智能运用背景下的被追诉人权利保障？是否应当重新梳理、调整和完善司法人工智能运用背景下的被追诉人权利保障体系？这些问题都值得认真思考，以实现司法人工智能运用与被追诉人权利保障的同向而行，如此既符合刑事诉讼保障人权的基本价值取向，也有利于实现司法人工智能“服务人民群众”的目标。
二、司法人工智能运用的类型与特征
尽管使用司法人工智能要受到案件类型和办案阶段等因素的限制，但其运用的广度和深度都足以令人关注。从世界范围看，实践中司法人工智能的主要类型有智能化的庭审辅助系统如欧盟国家法院安装的语音听写智能工具、裁判参考系统如美国的COMPAS量刑辅助系统、案件管理系统如欧洲的ERP案件分配系统以及诉讼支持系统如新西兰的视听链接系统（AVL）等。在我国，上述类型的智能化系统亦均得到应用，尤以沪、浙、黔等地为甚。尽管种类繁多、名称各异，但在侦查、起诉、审判这三个刑事诉讼的核心阶段与被追诉人诉讼权利关系最为密切的司法人工智能工具分别有以下三种类型。
一是犯罪预测和侦查类人工智能工具。此类智能化系统聚焦于通过数据分析提前预测可能发生的犯罪，并对相关证据进行收集，从而为追诉犯罪作出准备。此类人工智能工具的运用技术对海量数据的掌握与分析，其所使用的数据可能来自常态化的社会管理工作，如在公共场所获得的监控数据或疫情防控中的定位数据等，也可能来自对网络活动的巡查，甚至可能来自商事主体的商业活动如银行交易记录、收集定位信息等。
二是起诉支持类人工智能工具。此类智能化系统通过数据共享、分析等路径，为检察机关的起诉提供证据获取和判断或类案处理模式等方面的支持。例如山东检察机关的“检度”智能平台即对人民检察院案件信息公开网、中国裁判文书网等外部数据和内网数据进行整合，为案件的起诉提供帮助。再如湖北检察机关通过数据共享平台获取公安机关的行政处罚和其他行政机关行政执法的相关数据，在办理以行政处罚为前置条件的案件如公诉诽谤案时发挥重要作用。
三是审判辅助类人工智能工具。此类智能化系统的运用最为广泛，上海的“206系统”、北京的“睿法官”、江苏的“法务云”、河北的“智审”、重庆的“法治云”等都属于此类系统。这类系统大多包含证据校验、逮捕条件审查、全案证据审查判断、社会危险性评估、类案推送、量刑辅助、语音识别及智能转换等内容，尤其是其中的证据审判判断、社会危险性评估、类案推送、量刑辅助等程序或功能，直接关系被追诉人的核心利益，与被追诉人的诉讼权利关系极为密切。
作为我国司法人工智能运用的典型，三类人工智能工具在实践中呈现出一些特征，从而对被追诉人的诉讼权利产生影响。第一是充分的能动性。上述司法人工智能工具均有主动收集、处理数据之运作方式，能从海量数据中提取、分析出对案件办理有用的信息，从而客观上促使办案机关的能动性得以提升。尤其是其中的犯罪预测和侦查类工具，通过主动筛查、监控等技术路径，使得侦查机关的侦查手段得以革新、侦查能力大幅提高。第二是强烈的入罪性。实践中运用的司法人工智能工具并非价值中立的。由于人工智能运用的需求源自办案机关，作为甲方的办案人员现实存在的入罪倾向可能会向作为乙方的研发人工智能工具的科技企业渗透，使得司法人工智能工具呈现出入罪化的特征。犯罪预测和侦查类以及起诉支持类的人工智能工具自不必提，甚至审判辅助类的人工智能工具如上海法院的“206系统”，其中的证据审查、类案推送等功能在运用中也明显地表现出入罪化的特征。第三是高度的封闭性。司法人工智能工具从需求的提出、研发的过程到运算的规则，都呈现出明显的封闭性。尤其是算法的封闭和秘密性，使得人工智能工具的演算过程和结论得出方式不但不为被追诉人等当事人所知，甚至公检法机关的办案人员也不明就里。这种封闭性固然有推理法则、商业秘密、办案需求等方面的必要，但也增加了解释、检验、质证的难度。
由此可见，上述三类人工智能工具的司法运用提升了办案机关特别是作为控方及其助手的检察机关和侦查机关的办案能力，但技术在提升公权力运行强度的同时也给被追诉人的诉讼权利保障带来了潜在的威胁。这些威胁主要表现在三个方面：一是使得刑事追诉活动时间提前、追诉强度增加；二是加剧控辩力量失衡；三是导致被追诉人参与失效。这三方面的风险，给刑事司法中被追诉人的权利行使造成阻碍，直接影响其核心利益，故有认真分析并充分警惕之必要。
三、司法人工智能的现实运用对被追诉人权利的影响
当前我国司法运用的人工智能主要有犯罪预测和侦查、起诉支持、审判辅助等类型，呈现出能动性、入罪性、封闭性等特征，可能使得在刑事立案之前即已启动的犯罪追诉活动的强度进一步增加，加剧控辩力量的失衡，导致被追诉人的参与失效，这在很大程度上对被追诉人的权利保障造成不利影响。
（一）使得刑事追诉活动时间提前、追诉强度增加
刑事诉讼法定之启动节点为立案，立案之后方有进行刑事侦查、起诉等追诉活动的可能。当然，妥协于追诉犯罪的实践需要，在刑事立案之前亦允许有限之追诉活动。而人工智能技术的运用，则可能使得公安机关将开展追诉活动的时间进一步提前：公共空间的大规模监控使得人脸识别、信息审查等人工智能工具的运用更为广泛，尽管以维护公共安全为设置目标而使得这些人工智能工具通常不指向特定个人，但在实践中仍有被用于特定刑事案件追诉之可能。在调查核实阶段甚至在此之前，公安等侦查机关可以通过此类人工智能工具进行追诉性活动以及收集证据。
与刑事追诉活动时间提前这一方面影响相伴的是，人工智能的运用增强了侦查机关收集证据的能力，从而提升了刑事追诉活动之强度。通过运用人工智能技术，侦查机关收集的证据在数量和质量上都可能得到明显的提高，甚至可以令其在运用传统方式无法发现证据之处获取证据。例如，在上文所述的网络巡逻案件中，若非使用人工智能工具在浩如烟海的网络数据中海底捞针式地抓取特定敏感词，以顺藤摸瓜获取证据的追诉方式是无法想象的，人工智能技术的运用使得侦查机关追诉刑事犯罪的能力得到了质的提升，大大增强了追诉活动的强度。
然而，人工智能技术运用带来的刑事追诉活动时间提前、追诉强度增加的现实，对于刑事诉讼中的被追诉人至少有两个方面的影响。一方面，针对被追诉人的有罪推定倾向加强。侦查机关在刑事诉讼启动之前所使用的人工智能技术，无论是犯罪预警工具还是调查核实辅助工具，都具有强烈的追诉倾向，其关注点往往只集中于入罪证据，却往往不关注出罪证据。这样的设计与《刑事诉讼法》第115对侦查机关既要调查收集被追诉人有罪或罪重的证据、也要调查收集其无罪或罪轻的证据之要求不符，其结果是可能强化侦查机关的有罪推定倾向。如此一来，在被强化的有罪推定情绪的影响下，被追诉人在诉讼中的处境可能进一步恶化，相关的权利保障往往难以实现。另一方面，刑事诉讼程序的程序惯性的增强使得辩护更加困难。刑事诉讼的运行向来受程序惯性的影响，此种程序惯性是指刑事诉讼沿着立案、侦查、起诉、审判的轨迹进行追诉犯罪的状态，以及对于改变此种程序轨迹和否定先前程序结论的阻抗状态，因此其具体表现一是追诉程序的顺向发展状态，二是对程序改变和结论否定的阻抗状态。而这两方面的状态会因人工智能的运用使得刑事追诉活动时间提前、追诉强度增加而进一步加剧：侦查机关早早地运用人工智能技术获得了强度更高的追诉证据，则再欲扭转追诉程序或改变先前结论的难度便大大增加，后续程序中检察院和法院更容易接受上文所述的入罪性证据和结论，进而使得被追诉人及其辩护人所做的辩护工作难度增加。
（二）加剧控辩力量失衡
如上文所述，尽管刑事诉讼控辩之间力量存在天然差距，但诉讼的本质在于摆事实、讲道理，而此种对话的前提即辩方有一定的对抗能力，使得诉讼不至于成为一方对另一方的“碾压”。有鉴于此，刑事诉讼向来强调平衡控辩力量。英美法系的当事人主义诉讼模式下甚至不惜尽力压低控方地位而令其“当事人化”，在我国控辩平等对抗的理念亦在《刑事诉讼法》中有诸多体现。例如，规定被追诉人可以聘请律师、专家辅助人等，即为了增强辩方力量以提升其抗衡控方之能力。但司法人工智能的运用对于被追诉人而言似乎弊大于利，在如上文所述之提升控方追诉能力之时却减损了辩方的辩护能力，从而带来控辩力量失衡的风险，使得现代刑事诉讼制度平衡控辩、平等对抗之努力遭受重创。
其一，司法人工智能运用导致控辩取证能力差距拉大。相较于控方，辩方的调查取证能力本身就十分羸弱，《刑事诉讼法》规定的辩护律师调查取证权和申请取证权，因受《刑法》第306条律师伪证罪威胁等种种限制而实施效果不佳。而在司法人工智能普遍运用的时代背景下，控方以国家资源的投入为后盾，构建起运用人工智能技术的数据、算力和算法三方面基础性条件，使得包括侦查机关在内的控方通过运用人工智能技术收集的证据，无论在数量上还是质量上都能得到显著提升。然而，辩方无论对数据、算力还是算法均无掌握，全然没有运用人工智能收集证据之可能。于是，控方强大的取证因司法人工智能的运用愈发增加，而辩方本就薄弱的求证能力与控方的差距被进一步拉大。
其二，司法人工智能运用使得控辩数据处理能力形成鸿沟。控方通过大量国家资源的投入以及长期的积累，掌握了海量数据并构建起各种类型的数据库，从而为司法人工智能的运用打下了原料基础。更重要的是，由于控方以国家为名义开展工作，有人、财、物等的全方位支持，在运用司法人工智能时完全可以专业的方式对其掌握的海量数据进行有效处理。即便其自身数据处理的能力存在不足，也可以通过司法辅助工作外包的路径寻求专业科技企业的协助，从中准确迅速地获得利于其进行刑事追诉的相关信息和材料。而辩方不但如前所述缺乏对数据的掌握，且即便控方以平等之心态允许向其开放数据，被追诉人本身没有处理相关数据的能力自不必提，即便是辩护律师，由于法律人对数据统计与分析等技术的陌生与隔阂，亦无处理数据的能力。在此种情况下，即便辩方掌握了数据，也因其缺乏数据处理能力而在此方面与控方形成了巨大的鸿沟，从而影响其进行有效之辩护。
其三，司法人工智能运用致使控辩质证能力出现巨大差异。质证是证据运用的关键环节，有效的质证能保证证据的准确认定，以便查明案件真相，因此质证权是辩方的核心权利。然而在司法人工智能运用的背景下，辩方的质证面临着对控方证据了解受限的前提性障碍、与谁质证和如何质证不明的程序性难题，以及不平等质证难以达到效果的实质性困境。其质证能力受到限制，质证效果不佳。而控方则因其人工智能技术的运用并借由“互联互通”的智慧司法建设要求，将其认识和理念传输至审判过程，从而影响对证据的质证，实质地提升了本方的质证能力。由此，控辩双方的质证能力亦因司法人工智能的运用而进一步出现明显差距。
（三）导致被追诉人参与失效
允许当事人参与决定其利益的程序，是公正的基本要求，在刑事诉讼中同样需要保障当事人尤其是被追诉人的充分参与。被追诉人刑事诉讼过程的意义在于，一方面令其见证决定其核心利益之诉讼活动，另一方面令其充分表达意见并以此限制裁判的形成。因此，被追诉人的参与可以作形式之参与和实质之参与的界分：所谓形式之参与是指在诉讼过程特别是决定被追诉人核心利益的阶段允许被追诉人在场，而实质之参与则要求给予被追诉人充分表达观点和意见的机会，并令此种观点和意见之表达对裁判者的心证产生拘束。从二者的关系上看，形式之参与是实质之参与的前提，而实质之参与才是根本。
在司法人工智能运用的背景下，无论是形式之参与还是实质之参与，被追诉人的参与都会受到减损甚至失效。一方面，司法人工智能的运用使得司法人员将刑事司法中的部分工作交由智能化工具完成，此种工作虽亦可能涉及被追诉人的利益，却不作程序上的公开。例如人工智能的数据审核、运算等过程皆在封闭状态下进行，不但是被追诉人，甚至连公安司法机关的办案人员都无法参与。另一方面，司法人工智能所作出的结论，往往在很大程度上影响甚至决定法官的裁判结果。而由于司法人工智能运行的封闭秘密特征，被追诉人一方甚至不知与其相关的案件裁判系受到人工智能工具的作用，更无法表达观点和意见从而影响其作出的结论和法官的裁判。被追诉人参与的减损或失效，其危害后果是严重的：一是使得刑事诉讼的程序公正受到损害。在刑事诉讼中其生命、自由、财产等核心利益受到影响的被追诉人却不能参与决定其上述利益之决策过程，从程序上看显然不符合正义、正当的要求。二是可能导致案件实体处理结果方面出现错误。作为最了解案件情况之人，被追诉人观点和意见的表达对于事实真相的查明有重要意义，实质地剥夺此种参与，则可能使得裁判结果成为“偏听”之产物而带来实体错误的风险。
司法人工智能的运用可能导致被追诉人参与的减损甚至失效，此种担忧和争议在美国2016年的卢米斯诉威斯康辛州案中得到了充分的体现。本案中，被告人卢米斯因涉暴力犯罪而受到五项罪名的追诉，经过辩诉交易后其就其中两项较轻罪名认罪。在对其进行量刑时，法院使用了COMPAS智能评估工具对卢米斯的社会危险性进行评估，而评估报告显示卢米斯具有极高的再犯风险，法院参考该评估报告作出了量刑裁判。辩方认为，COMPAS工具并非基于准确的案件信息，且根据群体数据而非个别化的数据，并将性别和种族因素纳为考虑因素，违反了个别化量刑和平等量刑的要求。更为重要的是，COMPAS工具的算法不公开，使得辩方无法与不利于己的人工智能算法进行质证，不但剥夺了被告人的参与权，更侵犯了其根据美国宪法第六修正案所享有的对质权，属于严重的程序违法。尽管威斯康辛州最高法院没有支持卢米斯的观点，认为被告人的正当程序权利未受影响，联邦最高法院也拒绝签发调卷令而受理此案，但此案中的担忧与争议却并非无稽。算法的封闭秘密使得其具有“黑箱”化的可能，被追诉人对其运算的过程和结果的作出都缺乏参与，可能影响被追诉人的参与权特别是实质参与权，导致其对程序的参与和对裁判结果的影响失效。
四、司法人工智能运用中权利与权力平衡的基本思路
既然司法人工智能的运用可能给刑事诉讼中被追诉人的权利保护带来上述风险，面对技术运用的必然趋势，一味地拒绝和抵制人工智能技术显然是不理智的，唯有对现有的制度进行必要的调整，方能实现司法人工智能运用与被追诉人权利保护这两种需求的协调。司法人工智能运用的实践情况及其导致风险的现实情况，从根本上看是在某种程度上冲击或改变刑事司法领域的公权力与公民权利的关系。面对此种情形，我们有必要对权利与权力的关系进行重新协调，从而形成司法人工智能运用背景下权利与权力平衡的基本思路。
司法人工智能运用背景下权利与权力平衡思路的根本出发点在于保障包括被追诉人在内的当事人权利，这是因为作为保障社会公平正义最后一道防线的司法，其本质目标即谋求人民的福祉。尤其在我国这样的社会主义国家，“司法为民”是司法的初心，而在智慧司法建设中运用司法人工智能时亦应保守此种初心。时任最高人民法院院长周强就曾明确要求智慧法院建设应着眼于服务人民群众，司法人工智能的运用也应当遵循这样的基本要求。保障包括被追诉人在内的当事人权利，正是践行此种初心的体现。在司法人工智能运用的背景下，平衡权利与权力以保障包括被追诉人在内的当事人权利为出发点，符合司法的本质追求。
以权利与权力平衡之思路应对上述司法人工智能运用所带来的风险，至少有以下两方面的必要性。其一，直面技术革新带来的新兴权利。随着网络技术、大数据技术、人工智能技术、元宇宙技术等新型技术在社会生活中的运用，权利体系亦随之变化，从而在法学领域构建起新兴权利基本理论和规范。在刑事诉讼领域，新兴权利亦给原有诉讼权利体系带来影响，数据访问权、被遗忘权、反对权等新兴权利已有运用的理论和规范基础，并在司法实践中获得了一定程度的实际运用。在司法人工智能运用的背景下，新兴权利行使的需求愈加强烈，而这些新兴权利在适用中可能与公权力发生摩擦或冲突。对此，刑事司法应直面此种变革，有必要根据权利与权力的关系进行适当的调整。其二，以权利制约权力。权力具有扩张的天然属性，对此人们早有认识。为防止权力的无度扩张以致滥用，权力制约是最有效手段之一。我国古代就有“权不专于一司”的观念，西方资产阶级思想家依据分权理论提出要实现权力的相互制约，马克思主义经典作家亦吸收了权力监督制约理论的积极内容，这在社会主义国家的法律中得到了体现。随着权利意识的兴盛，在不同权力的相互制约之外，以权利制约权力已然成为现实，其效果逐渐体现并愈发受到重视。在司法人工智能运用背景下，强调权利与权力的平衡，符合以权利制约权力的趋势。
既然在司法人工智能运用的背景下遵循权利与权力平衡的思路存在上述必要，从保障包括被追诉人在内的当事人权利的根本立场出发，贯彻权利与权力平衡这一基本思路，具体而言主要有两方面的工作要做。
一方面是增权，即赋予和保障被追诉人应对司法人工智能运用所需的相关权利。由于刑事诉讼中国家对个人的力量悬殊，为确保平等对抗以利诉讼中“以理服人”，刑事诉讼的永恒主题之一即为被追诉人增权。传统上，被追诉人享有自我辩护权、获得律师辩护权、申请回避权、参与权、申请调查取证权、申请排除非法证据权、质证权、拒绝回答无关提问权、使用本民族语言文字权、上诉权、申诉控告权等诸多诉讼权利，但这些权利在司法人工智能运用的背景下已不足以应付诉讼之需，导致被追诉人这样“权益可能会受到刑事裁判或诉讼结局直接影响的主体”在实质上已然无法“有充分的机会富有意义地参与刑事裁判的制作过程，并对裁判结果的形成发挥其有效的影响和作用”。而如上文所述，随着技术的革新，新兴权利不断涌现，并在刑事诉讼中已然有适用的空间和实践。因此，面对司法人工智能运用的新现实，有必要赋予被追诉人应对司法人工智能运用所需的相关权利，并为这些权利提供相应的保障。
另一方面是限权，即合理规制刑事司法中的公权力机关对司法人工智能的运用。这是因为在司法人工智能运用的背景下，本就强大的公权力借助技术的力量得以进一步强化，例如侦查机关以犯罪预测和侦查类智能工具为利器提前对犯罪行为介入、取证，检察机关依靠起诉支持类智能工具更有效地获取和分析数据从而提高了起诉的质效，法院则凭借审判辅助类智能工具在认定事实和适用法律等诸多方面更为便捷。公权力机关基于人工智能技术运用而获得的能力提升固然有利于案件办理的质量和效率提高，但侦检机关基于其追诉立场而获得能力提升对于被追诉人而言则意味着将面对更为强大的对手，甚至法院在运用人工智能技术时亦有借由技术而“强权专断”的风险。面对此种现实，对公权力机关运用司法人工智能予以必要限制，存在充分必要。
增权与限权二者存在互动互补、相辅相成的关系：增权为限权提供了手段，唯有权利得到充分重视和尊重，方可对权力形成有效的监督制约，有利于限权的实现；限权则为增权提供了保障，被“关进笼子”的权力以审慎、合理的方式运行，才能实现保护公民权利的基本目的。基于此种互动互补、相辅相成的关系，为实现司法人工智能运用场景下增权与限权的平衡，应遵循三方面的要求。第一，二者应有共同的指向。如上文所述，无论增权抑或限权，其基本的目标应在于保护包括被追诉人在内的当事人诉讼权利，保障司法公正，追求人民福祉。确立此种共同的指向，方能确保司法人工智能运用中增权与限权的目标一致、戮力前行。第二，增权应适度。权利的内容或强度增加既应符合应对司法人工智能运用现实的需要，也应当考虑增权后对既有诉讼权利体系的影响以及在实践中的可操作性。应当明确的是，增权本身并非最终目的，在人工智能运用上保障司法公正方为目的。第三，限权亦应合理。面对司法人工智能运用带来的权力扩张风险，必要的限权是防止权力滥用所需的，但限权亦应有度。片面地阻碍司法人工智能的运用，既不符合数字时代发展的潮流，也可能偏离刑事诉讼预防和打击犯罪的根本价值追求。综上，应当准确认识增权与限权二者的关系，并以协同推进的方式实现司法人工智能运用背景下权利与权力的平衡。
五、司法人工智能运用中增权以保障被追诉人权利
在司法人工智能运用的背景下，依据权利与权力平衡之理念，为保障被追诉人的权利，除上文所述限制权力之外，尚需赋予和保障被追诉人应对司法人工智能运用所需的相关权利。具体而言，其包括被追诉人知情的权利、反对的权利和获得专业帮助的权利，由此实现司法人工智能运用与被追诉人权利保障的平衡。
（一）知情的权利
在个人信息保护中, 知情权系行使其他权利的基础，亦是被追诉人有效应对刑事诉讼中司法人工智能运用的前置性条件。其构成了被追诉人选择辩护手段、准备辩护工作的前提，同时也可以对司法机关运用人工智能的行为进行限制，防止其滥用。知情的权利应当包括两方面内容：一是知悉公权力机关运用司法人工智能的事实，二是了解公权力机关所运用的人工智能工具所依托的数据和算法。
被追诉人知悉公权力机关运用司法人工智能的事实，是其进行一切应对司法人工智能工作的基础，若非知悉此事实，则后续的权利行使皆成无源之水、无本之木。保证此种知悉有两条路径：一是由公权力机关就运用人工智能的事实向被追诉人主动进行告知，此种告知亦可以在诉讼文书中明确写明存在使用人工智能技术事实的方式令被追诉人通过行使阅卷权等相关权利而得知；二是在被追诉人一方发现某种使用人工智能之迹象后，就是否采取人工智能技术向公权力机关提出询问后予以告知。一般而言，从保护被追诉人权利的立场出发，应当以主动告知为原则，除非案件存在特殊情形，通常应由公权力机关主动明确地告知被追诉人一方运用司法人工智能的事实。除了告知存在运用司法人工智能的事实外，告知的事项仍可进一步具体化，如针对何种事项使用人工智能技术、使用何种类型的人工智能技术、基于何种数据和算法等，由此引发下述第二方面内容，即被追诉人应有权了解公权力机关所运用的人工智能工具所依托的数据和算法。
被追诉人对数据和算法的了解与下文所述的数据与算法适度公开的问题乃是一体两面。从增权的视角看，因阅卷权的范围较为狭窄而难以应对司法人工智能运用下数据体量剧增的现实，可以考虑赋予被追诉人数据访问权，即其从公权力机关等数据处理者处访问并获取案件相关数据的权利。数据访问权的对象范围可以超越“案卷材料”即诉讼文书和证据材料，从而大大提升了被追诉人了解相关数据的能力。但由于被追诉人身陷囹圄或难以直接行使权利，应允许其将该项权利授权于辩护人或其他适当人选代为行使，从而将其从被追诉人的权利拓展为辩方的权利。对于算法的了解，亦与此类似，可以由被追诉人一方在行使阅卷权或数据访问权的过程中获得上文所述的合理算法公开。但有一个看似细节性但却很现实的问题需要考虑，即行使数据访问权导致的经济成本应由谁负担。这一问题对于特定的贫困被追诉人而言事关重大，一旦处理不慎可能带来对不同被追诉人的区别对待。欧盟《通用数据保护条例》GDPR第15条关于数据访问权的规定中要求个人数据的副本应由数据控制者无偿提供，但数据主体要求额外副本的可以收取合理费用，这一规定可供参考。在被追诉人方行使数据访问权需查阅或复制数据而产生的基础性费用，通常数额不大，我们可以规定由办案机关在其办案经费范围内解决，如因其额外需求而产生的超出部分费用，则应按照市场合理价格收取。
（二）反对的权利
作为与案件结果利害关系最为密切的当事人，被追诉人对刑事诉讼程序的实质性参与应包含反对的权利，具体包括反对运用司法人工智能和采纳人工智能所作结论这两方面内容。被追诉人在上述知情权利的保障下获知司法人工智能运用的事实和所依据的数据及算法后，即可以提出此种反对。但在实际操作中，此种反对的权利宜围绕着数据和算法两个基本问题展开。
数据是司法人工智能运行的基本原料，反对对某项或某些数据的处理，即削弱了司法人工智能运用的基础。在刑事司法领域，被追诉人欲反对对数据的处理，可以从数据的性质和取得数据的方式两个方面提出主张。针对数据的性质，被追诉人提出的反对处理理由主要包括以下几类：一是数据不具有关联性，即该数据与案件事实之间不具有合逻辑且合法的关系；二是数据本身存在错误或已经过时，此种数据处理可能给案件的准确办理带来负面影响；三是数据的处理成本过高，如可能导致被追诉人重要权利的损害、属于国家核心数据或重要数据而不应被处理。当然，此种理由可能因存在更高位阶的利益或法律的明确规定而被推翻。而针对数据的取得方式，被追诉人可以反对非法取得的数据在刑事司法领域的使用。我国《刑事诉讼法》第56条规定：“在侦查、审查起诉、审判时发现有应当排除的证据的，应当依法予以排除，不得作为起诉意见、起诉决定和判决的依据。”参考此种刑事诉讼中的非法证据排除规则，被追诉人亦有权在侦查、审查起诉、审判阶段反对非法取得的数据作为司法人工智能的原料而被使用。
在算法必要公开的前提下，被追诉人反对司法人工智能的运用或其所作出结论的采纳，可以针对几方面内容展开。第一，算法的技术水平太低。目前整个人工智能产业仍处于“弱人工智能”的发展阶段，而运用于司法领域的人工智能技术大多是以知识图谱为主流算法的，距离科技企业宣称的知识图谱+深度学习的算法差距甚大。且其知识图谱构建中信息抽取能力欠缺、速度和精度不足，不具有深度学习的能力，加之部分科技企业利用司法机关对技术的陌生“以次充好”，使得整个司法人工智能算法存在技术上的不足。被追诉人可针对此种技术缺陷，提出反对人工算法运用的主张。第二，算法存在歧视性。一旦算法考虑性别、种族、性取向、经济地位等问题，即可能产生歧视，被追诉人对可能存在歧视的算法可以提出反对。第三，算法损害重大法益。算法可能给国家利益、公共利益或个人的人身、财产权利等带来严重威胁而导致其使用的收益成本不成比例，则被追诉人亦可以反对此种人工智能算法的运用。
被追诉人行使反对的权利，目的在于影响法官的心证过程，从而获得有利的案件裁判结果。从保障被追诉人形式参与与实质参与的视角看，法官不仅应当给予被追诉人提出此种反对的机会，更应实质地考虑此种反对，并有必要在裁判文书中予以体现。
（三）获得专业帮助的权利
如上所述，被追诉人不具备应对司法人工智能的专业技术方面的知识和能力，即便刑事诉讼中的公权力机构向其进行数据和算法的开放，亦不足以使其能够理解与司法人工智能运用相关的专业问题。倘若公权力机关再用点“数据倾倒”之类的小伎俩，则被追诉人更会手足无措。在这样的情形下，为被追诉人提供专业的帮助，就具有保障实质公正的重大意义。然而，被追诉人目前能够获得的专业帮助主要来自其辩护人，但以律师为主的辩护人其知识和能力主要集中于法律专业，对于司法人工智能运用的相关问题仍十分陌生和疏离，因此仅依靠辩护人无法使得被追诉人获得应对司法人工智能的充分专业帮助。面对此种困境，需要拓展被追诉人获得专业帮助的权利，尤其需在技术层面对其提供必要支持。
在现有的法律规定下，一个可行的思路是借由专家辅助人制度提供对被追诉人的技术类专业帮助。我国《刑事诉讼法》第197条第2款规定：“公诉人、当事人和辩护人、诉讼代理人可以申请法庭通知有专门知识的人出庭，就鉴定人作出的鉴定意见提出意见。”最高人民法院、最高人民检察院、公安部《关于办理刑事案件收集提取和审查判断电子数据若干问题的规定》第21条规定：“控辩双方向法庭提交的电子数据需要展示的，……必要时，可以聘请具有专门知识的人进行操作，并就相关技术问题作出说明。”而公安部《公安机关办理刑事案件程序规定》第253条将专家辅助人的职权从庭审前移至侦查阶段，规定“犯罪嫌疑人、被害人对鉴定意见有异议提出申请，以及办案部门或者侦查人员对鉴定意见有疑义的，可以将鉴定意见送交其他有专门知识的人员提出意见”。法律对专家辅助人的期待集中于其“专门知识”上，要求其运用相关专门知识对鉴定意见提出意见或作出说明，故只需略加拓展即可允许其帮助被追诉人应对司法人工智能运用中的数据或算法相关的专门问题。
专家辅助人针对司法人工智能运用的专门问题为被追诉人提供专门知识方面的帮助，对于在司法人工智能运用背景下提高辩方能力、促进控辩平等从而保障被追诉人权利具有重要价值。但其中有两个问题需要予以关注：其一，专家辅助人的引入是否增加了被追诉人的经济负担？专家辅助人为被追诉人提供专业帮助，是付出了智力劳动的，理应获得相应的报酬。但如此一来，是否可能在经济能力不同的被追诉人之间产生不平等，即富裕的被追诉人有能力聘请专业能力更强的专家辅助人，而贫寒的被追诉人甚至无力获得专家辅助人的专业帮助？此种可能恐怕是现实存在的，但目前在司法人工智能运用背景下引入专家辅助人已是一大进步，今后待时机成熟亦可考虑由国家提供必要的法律援助以缓解此种不公平状况。其二，专家辅助人在诉讼中扮演何种角色？对于专家辅助人的身份定位，没有明确规定且存在不同认识。笔者认为，被追诉人所聘请的专家辅助人应与辩护律师具有类似的地位，特别是当其目的在于就司法人工智能的运用而提供专门问题上的咨询与帮助时，应具有类似于辩护律师的地位和权责，从而确保为被追诉人提供充分有效的专业帮助。在此基础上，《刑事诉讼法》可以将专家辅助人的职责加以拓展，允许其针对司法人工智能运用的数据、算法等专门问题为被追诉人提供专门知识方面的帮助。
六、司法人工智能运用中限权以保障被追诉人权利
根据权利与权力平衡之理念，为保障被追诉人权利，需对公权力予以必要限制。通过运用比例原则、强化刑事诉讼等边三角形结构、适度公开数据与算法等途径，可以实现此种以权利保障为目的的权力限制。
（一）司法人工智能运用中的比例原则限制
尽管比例原则向来被视为行政法上的“帝王原则”，但在刑事司法领域用于制约公权力机关运用司法人工智能的场景下同样具有指导意义。传统观点认为比例原则包含适当性原则、必要性原则与均衡性原则三项子原则，但亦有学者将目的正当性原则纳入比例原则之中。由于目的正当性原则具有保证实质正义之价值，应作为比例原则审查的首要考虑内容适用于司法人工智能运用的限制问题上。
目的正当性原则在整个比例原则的逻辑结构中具有前提性的价值。目的若非正当，则无论后续行为方式如何均难以称之为良善，因此该原则要求公权力的行使出于正当之目的，从而为后续三项子原则的适用奠定了基础。在刑事司法领域，目的的正当性也是司法公正的基本要求，尤其是新型技术的运用总是伴随着目的正当性的争议和质疑。倘若不能确保其目的的正当，则新型技术就有被非法滥用之虞。为防止此种情况发生在司法人工智能运用的场景下，公权力机关运用人工智能亦应遵循目的正当之要求。参考我国《刑事诉讼法》第152条第3款的规定，应将司法人工智能的运用限于对犯罪的侦查、起诉和审判之目的而不得用于其他用途。
适当性原则要求公权力行为的手段适当，有助于促进其追求目的之实现。从本质上看，适当性原则要求手段与其欲实现之正当目的具有关联性，因此这一原则与目的正当性原则相连接，基于目的之需要而对公权力行使的手段进行选择，对于促进手段与目的的一致性具有重要价值。在刑事司法领域，公权力机关办理刑事案件有诸多可供选择之手段，运用司法人工智能可能仅是其中的一种手段，而根据适当性原则，倘若运用司法人工智能并不能对案件办理带来实质性的目的促进作用，则此种手段即不应使用。因此，在运用司法人工智能之前，需对其效果与目的之间的关联性关系进行预先的评估方可施行。
必要性原则要求公权力行为之手段必要且造成的损害最小，故又被称为最小损害原则。这一原则在适当性要求手段与目的相关之外，要求采用的手段尽可能降低其损害，从而协调目的、手段与后果之间的关系。换言之，必要性原则要求公权力行为之手段就完成目的而言必要且不至于造成过度损害。在运用司法人工智能时，也应当遵循必要性原则的要求。一方面，要评估此种运用是否为完成刑事案件办理所必要。《刑事诉讼法》第150条规定在实施技术侦查时需“根据侦查犯罪的需要”，参考此种规定方式，亦可规定司法人工智能需“根据案件办理的需要”方可运用。另一方面，要判断此种运用是否会带来过度的、不必要的严重后果。例如，在使用数据爬取、生物数据识别等工具时，需要考虑是否会给被追诉人等公民的人身权利、隐私权利带来过度侵害；在使用类案推送、量刑辅助等工具时，则应考虑此种智能化工具是否会侵犯法官独立行使审判权和被追诉人的质证权等重要诉讼权利。
均衡性原则或称狭义比例原则，要求手段所造成的损害同其所促进的利益成比例，禁止损益失衡。从本质上看，该原则要求进行利益权衡，对应于刑事司法领域，要求公权力机关在行使权力时作适度的收益和成本的分析与权衡，防止权力运行带来不必要的、过度的负面后果。就司法人工智能而言，亦需考虑运用之收益与其成本，尤其是对被追诉人权利之侵害之间的平衡。关键的问题在于找到“决定了法律是否得以使用其强制性的资源来保障或限制私人自由”的平衡点，在此基础上再作出是否运用司法人工智能以及以何种方式运用司法人工智能之决定。
（二）刑事诉讼等边三角形结构的强化
为实现司法公正，在控辩审之间需形成等边三角形的刑事诉讼结构，即要求控辩之间力量相对平衡且能形成实质性的对抗、审判者不偏不倚地居中裁判并与控辩之间保持同等的距离，此为刑事诉讼的基本原理。然而如上文所述，司法人工智能的运用带来了控辩力量失衡的风险，特别是导致被追诉人一方在调查取证、数据处理、质证能力等方面的劣势进一步凸显，使得等边三角形的诉讼结构受到冲击。有鉴于此，在司法人工智能的运用背景下，调适控辩之间的力量，确保审判中立从而重新强化刑事诉讼的等边三角形结构，对于保障被追诉人权利具有重大意义。
为强化此种等边三角形诉讼结构，需要解决控辩双方在司法人工智能运用背景下力量严重失衡的问题。为此，一方面需对辩方适当增权，另一方面则要限制控方权力。除其运用司法人工智能需如前经比例原则审查外，还有几方面工作需予重视。一是运用司法人工智能前的审批工作。司法人工智能的运用所涉重大，应根据不同情形进行事先的审批，以防止其被滥用。运用以个案证据收集为目的的犯罪预测和侦查类人工智能，其本质属于侦查行为，应参考《刑事诉讼法》第150条、第151条及相关规范性文件关于技术侦查的严格规定进行逐事逐项的审批；对常规、非侦查性的人工智能运用，则可以采取一揽子的方式统一进行预先审批。二是运用司法人工智能中的监管工作。对于司法人工智能的运用，应有事中的监管、监控，防止其超越正当目的或以非法方式使用，尤其对于收集证据类的、具有侦查性的人工智能的运用，可以参考2019年公安部《电子数据取证规则》第二章第四节的规定，以全程录音录像或录屏等方式予以同步记录，以防止其滥用。三是运用司法人工智能后的监督工作。事后的监督虽属亡羊补牢，但仍可对日后之控方行为形成震慑，故有积极意义，但问题在于究竟应由哪一机关履行此种监督职能？根据现有法律，检察机关是《宪法》规定的国家法律监督机关，在刑事诉讼中进行全程的监督。尽管其在诉讼中同时扮演公诉方的角色，但因大陆法系传统下检察机关客观中立义务之限制，由其做事后监督工作符合“相对合理主义”的要求。
除了限制控方权力之外，审判中立的再强调亦是司法人工智能运用背景下强化刑事诉讼等边三角形结构的另一方面要求。在控辩审三方关系中，审判者应与控辩双方保持同等距离，然而实践中审判者与辩方的距离向来不成问题，但却容易与控方产生亲近关系。为防止此种亲近关系导致先入为主的影响，我国在1996年修改《刑事诉讼法》时就曾向起诉状一本主义作过努力。尽管此种尝试折戟于司法现实，但在人工智能运用的背景下，审判者仍有必要保持与控方的距离，尤其应在控审之间进行必要的信息隔离。例如，由于人工智能运用带来公检法三机关办案系统“互联互通”的要求，公安机关掌握的信息从理论上看可以直通法院，而由于公安机关兼具社会管理和刑事侦查职能，其在人工智能的运用中未必对两类职能行使中获取的信息作严格的分离。但对于审判者而言，社会管理的信息可能对刑事裁判产生影响，因此应对法官作社会管理信息与刑事裁判信息的隔离。此外，为保证审判中立，还需要求法院相对于科技企业的中立，避免科技企业所追求的利益、秉持的理念对裁判者造成影响，从而保障其发挥公正之作用。
（三）数据与算法的适度公开
由于刑事诉讼中被追诉人天然处于弱势地位，为提升其力量，各国多有向被追诉人一方开示证据等规定。我国《刑事诉讼法》第40条亦规定：“辩护律师自人民检察院对案件审查起诉之日起，可以查阅、摘抄、复制本案的案卷材料。其他辩护人经人民法院、人民检察院许可，也可以查阅、摘抄、复制上述材料。”在案卷材料的日益数字化以及作为人工智能运行原料的数据范围和数量巨幅扩张的背景下，有必要在案卷材料公开的基础上进一步要求数据的适度公开，即要求法检将与案件最终裁判结果、被追诉人核心权益密切相关的数据向被追诉人一方公开。此种公开，应以“适度”为限。参考《刑事诉讼法》和《数据安全法》的相关规定：一是时间宜以侦查程序结束或审查起诉程序开始为起点，避免数据公开对本身需要封闭秘密性的侦查程序造成不当困扰；二是对于关系国计民生的国家核心数据和不宜公开的重要数据，则应禁止向被追诉人一方公开。
在数据公开中，有一特殊问题值得关注，即应防止法检运用其因司法人工智能运用进一步增强的数据能力优势，对被追诉人进行“数据倾倒（data dumps）”。所谓“数据倾倒”，是指具备数据优势的一方向对方提供海量数据，使对方因不具备寻找有用数据之能力而迷失在数据的“海洋”中，或刻意提供杂乱无章的数据、对数据进行不利检索和使用的处理，增加对方利用数据的难度，从而以形式之数据公开掩盖实质之数据封闭。在英美法的民事和行政类诉讼中，数据倾倒之恶意诉讼行为已多有出现，甚至在刑事诉讼中也已然可见。在我国，数据倾倒的风险同样存在。例如在快播案中，共有涉案视频文件29 841个，仅浏览这些视频需耗时数十万甚至上百万分钟。在司法人工智能运用的背景下，法检掌握的数据数量更是显著增加，若对被追诉人进行数据倾倒，则其实质侵害被追诉人权利、妨碍辩护工作、影响司法公正的危害是显而易见的，因此应对此抱有充分警惕并予以严格禁止。
除了数据之外，在构成司法人工智能运行的三项基础性要素中，算法亦有适当公开之必要。基于保护企业商业利益和知识产权的考虑，算法的封闭性有一定的正当化理由，但是算法的不公开可能导致“算法设计者运用不透明的程序转换为输出的过程”的算法黑箱，带来歧视性风险。尤其在司法的场域下，算法不公开导致影响被追诉人核心利益的关键过程无法为人所知，亦不提供相应理由，有违正当程序的要求。此外，算法坚持其商业秘密性而拒绝公开也贬损了自身的证据价值，甚至给算法造假留下空间，带来证据真实性方面的风险，进而影响实体公正。因此，笔者主张在兼顾科技企业利益的前提下对人工智能算法进行有限之公开：一是将公开的范围限于对被追诉人核心利益产生重大影响的部分，如可能对案件定罪量刑及重大程序性问题造成重大影响的内容；二是通过算法解释寻求特定算法决策结果的原因和理由，以实现对被追诉人的算法公开；三是可以通过要求各方签订保密协议等多种方式防止算法公开带来过度的不利后果。如此一来，可以有效防范刑事诉讼中的公权力机关借由算法封闭之名而行滥用权力之实，堵住此方面的制度漏洞以保障被追诉人权利。
七、结语
数字时代人工智能的运用是人类生产生活方式变革的产物和动力。作为社会生活的一部分，刑事司法领域运用司法人工智能亦在时代潮流的推动下无可避免。问题的关键在于，如何在司法人工智能运用中协调与奠定刑事诉讼基石的基础性原理、原则之间的关系，其中最为重要的难题即如何使司法人工智能的运用不至于对被追诉人的权利保护带来不可控的严重侵害。尤其对于我国而言，刑事诉讼百余年来的法治化进程，最为核心的内容即在于加强对犯罪嫌疑人、被告人等被追诉人的权利保障，这是总结历史经验教训、参照域外法治经验并以冤案错案为代价换回的深刻认识。因此，以提升诉讼效率为直接目标的司法人工智能的运用，亦应当遵循法治化的发展路径，尽力平衡技术运用与被追诉人权利保障之间的关系，以实现刑事司法的“科技向善”。
原文刊发于《厦门大学学报（哲学社会科学版）》2023年第6期《科技与社会研究》专栏，第41—53页。因篇幅问题，注释删略。
相关文章：
欢迎关注“厦门大学学报哲社版”微信公众号
投稿平台
https://xdxbs.xmu.edu.cn/
https://xmds.cbpt.cnki.net/